Năm 202, Viên Thiệu qua đời. Tào Tháo lợi dụng các con Viên Thiệu là Viên Đàm và Viên Thượng tranh giành quyền lực, chia rẽ và tấn công anh em họ Viên. Năm 204, Viên Thượng thất thế định chạy sang Tinh châu, nhưng Cao Cán không dung nạp. Viên Thượng phải chạy sang U châu với Viên Hy. Cao Cán bỏ họ Viên, sai sứ sang gặp Tào Tháo xin hàng[3]. Tào Tháo chấp thuận, cho ông tiếp tục làm Thứ sử Tinh châu.

Tào Tháo thấy họ Viên suy kiệt, thừa cơ tấn công tiêu diệt Viên Đàm năm 205. Anh em Viên Hy và Viên Thượng bỏ chạy lên dựa vào thủ lĩnh bộ tộc Ô Hoàn là Đạp Đốn. Tào Tháo mang quân đánh Ô Hoàn.

Sử ghi: giữa lúc Tào Tháo đánh Ô Hoàn thì đột nhiên Cao Cán làm phản. Nhưng các sử gia cho rằng nguyên nhân không rõ ràng và rất có thể vì lúc đó việc lợi dụng Cao Cán để diệt họ Viên không còn nên ông bị Tào Tháo quy kết làm phản[3]. Tào Tháo sai Nhạc Tiến, Lý Điển đi đánh Cao Cán để thôn tính Tinh châu, tiến vào ải Hồ Quan.

Giữa lúc đó, Đạp Đốn cũng bị Tào Tháo đánh bại, cùng anh em Viên Thượng, Viên Hy chạy lên Liêu Đông, nơi thủ lĩnh Công Tôn Khang trấn giữ.

Tào Tháo trong khi tác chiến với Ô Hoàn lại sai Thái thú Hà Đông chặn đường rút về nam của Cao Cán. Lý Điển và Nhạc Tiến đánh Hồ Quan mãi không hạ được khiến Tào Tháo phải thân chinh mang đại quân đến.

Hai bên giao chiến từ tháng giêng tới tháng 3 năm 206, Tào Tháo mới giành được ưu thế. Trước tình hình nguy cấp, Cao Cán để Hồ Quan cho một bộ tướng trấn giữ, còn mình bỏ Tinh châu chạy lên phía bắc, chạy sang đất Hung Nô cầu cứu Thiền vu Nam Hung Nô. Thiền Vu Nam Hung Nô không đồng ý xuất quân giúp Cao Cán, ông đành trở về Tinh châu[4]. Nhưng trên đường chạy về, ông bị Đô úy Thượng Lạc là Vương Diễm bắt giết. Không rõ năm đó Cao Cán bao nhiêu tuổi.

Không lâu sau (207), Viên Thượng và Viên Hy đến Liêu Đông gặp Công Tôn Khang, bị Khang giết chết để hàng Tào Tháo.